Từ năm 1958 đến năm 1961, ông học trường Trung cấp Nông lâm Trung ương Hà Nội. Hai năm sau đó, ông là công nhân lâm nghiệp, kỹ thuật viên điều tra rừng Ty Lâm nghiệp Bắc Kạn, sau đó là đội phó đội khai thác gỗ Bạch Thông.
Từ năm 1976 đến năm 1980, ông là Tỉnh ủy viên, Phó trưởng Ty Lâm nghiệp tỉnh Bắc Thái, kiêm Chủ nhiệm công ty xây dựng lâm nghiệp rồi trưởng Ty Lâm nghiệp tỉnh Bắc Thái.
Từ năm 1980 đến năm 1984, ông làm Tỉnh ủy viên, Phó Chủ tịch Ủy ban nhân dân tỉnh Bắc Thái.
Từ năm 1984 đến tháng 10 năm 1986, ông đảm nhiệm chức vụ Phó bí thư Tỉnh ủy, Chủ tịch Ủy ban nhân dân tỉnh Bắc Thái.
Tháng 3 năm 1989, tại Hội nghị lần thứ 6 Ban Chấp hành Trung ương (khóa VI), Nông Đức Mạnh được bầu làm Ủy viên chính thức Ban Chấp hành Trung ương Đảng.
